Защо отговорността е все по-неуловимо начинание
Представете си — или, в случай че летите постоянно и нямате огромен шанс, запомнете — този сюжет. Вашият полет е свръхрезервиран и с цел да се освободи място, пасажерите се отстраняват. Тези с минимум летящи благи се извеждат първи. Можете да се оплачете, несъмнено, само че лицето, прилагащо политиката, не я е задало - и не може да я промени. Дори в случай че инцидентно имате номера на мобилния телефон на основния изпълнителен шеф на самолетната компания, това не е нейна виновност: това е политика на компанията.
Това е мисловният опит, който Дан Дейвис употребява в своята занимателна нова книга, Машината за безнаказаност, с цел да илюстрира това, което той назовава „ мивката на отчетността “: правилници, процедури и в някои случаи цели институции в актуалния живот които всъщност отстраниха персоналната отговорност за взимане на решения. Стюардесата, която ви съпровожда от самолета, не носи отговорност, нито техният управител. В края на краищата вие сте се записали за тази опция, когато сте резервирали билета си.
Въпреки че „ мивката на отчетността “ е нова монета, други мислители приказват за сходни проблеми. Изследователите на FAT ML (справедливост, отчетност и бистрота в машинното обучение) приказват както за „ отговорност “ (да имате ясна визия към кого да се обърнете, когато логаритъм изплюе решение, което не харесвате), по този начин и за „ обяснимост “ (този човек би трябвало да бъде в положение да изясни за какво е взето решението на наличен език) заради тази причина. Други се тормозят, че машинното образование основава „ бездна в отговорността “, в която хората, вземащи решения, към този момент не би трябвало да регистрират или даже да схващат решенията, които ползват.
Има по-лоши неща в живота от забавено пътешестване. По-сериозен образец за усвояване на отговорност може да бъде абсурдът Windrush, при който десетки хиляди британци, родени в Западна Индия, претърпяха малтретиране, като доста от тях изгубиха работата и домовете си, а някои непозволено бяха депортирани от Обединеното кралство. Чия беше виновността? Архитектите на политиката за враждебна околна среда, която реалокира границите на граничните разпореждания на страната до всяко работно място, хазяин и социална услуга? Бюрократите, които унищожиха картите за кацане, които може да са служили като различни форми на документ за идентичност? Множеството държавни управления, които законодателно лимитират правото на жителите на Британската империя да се движат свободно в нея? Единственият човек, който подаде оставка поради несправедливостта, беше Амбър Ръд, чието главно провинение беше, че беше министър на вътрешните работи, когато абсурдът влезе в новините, вместо да ползва някоя от обидните политики, и тя скоро се върна на висок пост след малко неявяване, управлявайки различен огромен отдел. Подобен правоприемник за отчетност към този момент работи в схемата за обезщетения на Windrush, която е наранена от забавяния.
Но не всички приемници за отчетност са неприятни. Процесът на наемане, който разрешава на моя другар от основен изпълнителен шеф да отсее кандидатурата на моя незапознат племенник, без да ме обиди, също е усвояване на отговорност. Ясните правила, избрани в правилници, процедури и логаритми, могат да доведат до остри несправедливости. Но те най-малко са измерими и откриваеми, за разлика от неочакваните преценки, които всички вършим всеки ден. Насоките за санкции за наказателни каузи са частично метод за унищожаване на персоналните предубеждения и случайни несправедливости от правосъдния развой, макар че те могат и внасят лични случайни несправедливости.
Поглътителите на отчетността са непряк артикул от живота в едно по-сложно общество и въвеждането на машинно образование и алгоритмично взимане на решения в публичната политика ще сътвори доста повече от тях. Съдия, чиято автономност в съвсем всички общества е мощно лимитирана от насоки за налагане на присъди и наложителни граници, въпреки всичко може да остане крайният решителен, даже в случай че е подпомаган от алгоритмични модели. Но кой е отговорен, в случай че или когато тези системи се объркат или се изкривят мощно в една или друга посока?
Един добър образец за изгодите и компликациите може да се види при потреблението на програмен продукт за лицево различаване. Въпреки че в този момент тази технология съвсем постоянно работи по-добре от човешката преценка, към момента е по-вероятно да разпознава неправилно хора с по-тъмен цвят на кожата и дами. Кой е отговорен, в случай че това докара до правосъдна неточност? И кой би трябвало да дава отговор за това софтуерът да е по-добър на следващия ден, в сравнение с е през днешния ден?
Но елементарен човек, безграничен от книга с правила, също ще направи извънредно доста неточности. И бих предпочел да се подложа на инцидентните несправедливости на елементарната книга с правила – което на процедура е всичко, което е един логаритъм – в сравнение с безкрайно човешко взимане на решения. Но за водачите, без значение дали на компании или страни, обяснението на това, което се е объркало при машинно подпомаганото взимане на решения, ще значи да могат да приказват свободно за това какво значат потъвания в отчетността, за какво ги имаме и дали би трябвало да се отървем от тях.
